通过模块化可执行开发原语进行软件工程智能体框架设计
🧭 Agent 多智体协作与模块化架构
University of Illinois Urbana-Champaign · The Pennsylvania State University
提出 Dev-Primitives 与 HERMES,用依赖感知动态激活的模块化 LLM 原语降低长程软件工程任务的上下文爆炸与语义漂移
📌 工作参考价值(4 点)
- 将电商推荐/搜索 Agent 流水线拆分为多个“原语”模块(召回、排序、创意生成、知识检索等),每个模块携带小型 resident LLM,提供自然语言接口与局部自我修改能力,避免单体 Agent 的上下文爆炸。
- 借鉴依赖感知动态激活:根据任务依赖图只唤醒相关模块,例如商品类目变更时仅激活商品理解与召回模块,而非加载完整系统上下文。
- 引入执行证据回流的诊断机制:将线上指标、bad case、日志等作为证据映射到需要修改的具体模块,进行局部微调或策略调整,降低全链路重训练成本。
- 采用异构 LLM 分层:强模型(如 GPT-5 级)负责全局激活与诊断决策,便宜小模型(如 Qwen3-8B)配置在模块内部执行局部修改,在保持效果接近的同时减少推理成本。
马拉松者:超长程自主智能体
🧭 超长程自主编码 Agent 后训练 ★ 深度解读
University of Macau · Peking University · Ant Group
从 GitHub PR 自动合成任务、拒绝采样蒸馏与 GRPO+后期奖励,让 9B 开源模型具备 10+ 小时执行能力
📌 工作参考价值(4 点)
- 任务数据合成:从业务系统(推荐服务代码库、数据管道、广告投放平台)的 commit/PR 自动构造带单元测试验证的长程 Agent 任务;电商搜索推荐团队可基于历史工单、A/B 实验变更生成环境+指令+验收测试三元组,低成本扩充训练数据。
- 后期阶段奖励:在对话式推荐/导购 Agent 中用 LLM 判断会话后半段是否有高价值动作(如用户改变偏好后的有效重新推荐、复杂比价后的正确总结),给予额外奖励,防止模型在长交互中过早收尾或重复无效询问。
- 多样 harness 训练避免过拟合:针对 Agent 可能接入的不同执行环境(推荐 API、页面布局、工具集),在 RL 训练时轮换多种 harness,可提高跨场景泛化,与多环境交互评分/模拟器训练思路一致。
- 拒绝采样蒸馏:先用闭源大模型在真实任务上生成成功轨迹,仅保留 reward=1 样本对开源小模型做 SFT 初始化,再进入 RL 微调;适用于电商客服、导购 Agent 等需要长程规划的场景,降低对高质量标注轨迹的依赖。
SWE-Bench Pro Verified:面向软件工程智能体的可靠评测基准
🧭 Agent 软件工程评测基准
East China Normal University · Shanghai Artificial Intelligence Laboratory · Fudan University
通过防泄漏与任务整改构建更可信的 SWE-Bench Pro 版本,揭示原有榜单高估模型软件工程能力
📌 工作参考价值(4 点)
- 构建内部 Agent 评测集时,优先排查 git history、本地文件、公开代码托管域等泄漏通道;可将 gold patch 与待评测代码隔离,必要时重写或删除仓库历史,避免模型通过检索直接获取答案。
- 任务质量要像本工作一样做最小化修正:校验 issue/problem statement 是否误导,测试是否错误限定范围;剔除或修正低质实例,防止噪声项拉高虚假通过率。
- 发布内部 leaderboard 或模型选型前,加入 anti-hacking safeguard 和留出验证集,监控模型是否利用 hidden info;对电商/推荐场景的 Agent(智能客服、选品、推荐策略)同样适用,防止能力虚高。
- 若需用 SWE-Bench 类代码任务筛选模型,优先采用 verified 版本;其思路可复用到「有标准答案的生成式任务」,对可作弊信号(点击、库存、商品标题等)做脱敏与隔离。
Change2Task:从仓库变更自动构建可执行编码代理任务与环境
🧭 代理任务自动构建与验证
Microsoft · University of California San Diego · Zhejiang University · Xi’an Jiaotong University · Nanjing University
利用合并 PR 逆向重建健康代码库上的可验证编码代理任务,成功率达 79.6%,比 PR 基线多恢复 29.2%
📌 工作参考价值(4 点)
- 历史操作逆向为可复现环境:可借鉴 Patch Reversal 思路,将推荐系统的用户行为日志或实验配置「逆向」生成可重复执行的 Agent 训练任务,降低构造成本。
- 任务生命周期验证:从健康基础状态 → 任务状态 → 修复状态的全流程验证,可用于确保离线仿真环境的一致性和可靠性,避免训练与上线偏移。
- 环境基础复用节约开销:论文中重用现代基础镜像降低 10.8% 端到端成本,类似地,在推荐 Agent 的持续训练中通过共享基础镜像可减少重复构建。
- 多任务统一构造框架:覆盖 Bug 修复、特性添加等多类任务,启示搜索推荐 Agent 训练也可统一构造排序、召回、文案生成等不同任务,提升泛化性。
MindForge:通过无源码程序合成教授小模型全周期软件工程
🧭 LLM 训练 · 程序合成 · 教师蒸馏
Huawei Canada · Queen's University · University of Manitoba
自动化将开源命令行程序转为无源码训练环境,用教师轨迹微调小模型,使编程从零构建性能大幅提升
📌 工作参考价值(4 点)
- 可借鉴其自动构建仅暴露接口和文档的无源码沙箱的方法,为推荐系统 Agent 生成训练环境,例如基于推荐 API 文档和模拟用户行为合成决策轨迹。
- 使用大模型作为教师生成高质量全生命周期交互轨迹,再微调小模型,这种蒸馏范式可直接用于将复杂推荐策略(召回、排序、重排)压缩为小型 Agent 模型,降低线上延迟。
- 训练数据覆盖需求分析、设计、实现、测试多阶段,对推荐 Agent 训练有启发:可设计从用户画像分析、策略设计到配置、离线评估的完整任务流,提升模型全局优化能力。
- 从与测试集不重合的仓库构建环境,泛化性提升显著,业务中可用多样化历史推荐场景构造合成数据,微调模型以应对未见过的运营需求或算法变更。
基于知识的拉取请求:代理中介知识协作的可信工作流
🧭 代理协作中的信任边界与知识传递机制
Fudan University
提出 KPR 工作流,将外部代码视为知识源,由项目内部可信代理重新生成代码,分离知识接纳与实现合并决策
📌 工作参考价值(4 点)
- KPR 的“知识包”抽象可迁移到多智能体推荐系统:外部代理输出的推荐理由、交互轨迹不直接作为最终结果,而是交由内部代理结合业务规则和上下文再次生成,可提升安全性和一致性。
- 分离“意图理解”与“实现生成”的决策模式,可应用于电商搜索 Agent 系统:用户粗浅意图由外部解析为结构化知识,内部受控代理根据知识包和商品图谱生成精准查询或推荐。
- 信任边界设计对多供应商模型协作场景有启发:不同模型生成的推荐候选视为知识源,通过合规性检查门禁后在统一环境下重生成,降低集成风险。
- 主要学术贡献在于软件工程与 Agent 协作流程,业务可借鉴点偏向 Agent 架构模式而非推荐算法细节。
LLM智能体也能“看见”代码仓库:视觉结构提升效率的秘密
🧭 多模态Agent · 代码仓库可视化
Shanghai Jiao Tong University · Xi’an Jiaotong University · Zhejiang University
首次系统评估多模态仓库可视化对LLM Agent任务解决的影响,发现视觉辅助可降26% token开销且不损精度。
📌 工作参考价值(4 点)
- 混合模态Agent架构:在电商/推荐Agent中,可将系统拓扑图、服务依赖图、商品知识图谱等可视化信息作为补充输入,与文本上下文结合,使Agent更高效地理解复杂环境结构,减少纯文本描述带来的冗长token消耗。
- 故障定位阶段的视觉加速:在推荐系统排障、多Agent协作调试等场景,提供可视化调用链路或状态快照,能帮助Agent更快定位问题来源,类似论文中视觉在fault localization阶段的突出效果。
- 自主探索深度控制:让Agent根据视觉结构的复杂程度自行决定探索深度,避免不必要的文本查询,可以迁移到Agent规划(如动态选择RAG查询层级、多级推荐链的探索)中,实现按需获取信息。
- 工程实现借鉴:论文的混合模态设计验证了“视觉结构图 + 文本浏览”的比纯视觉或纯文本更具性价比,可直接套用在需要Agent理解大型项目结构(如推荐pipeline、微服务架构)时,用图表快速建立全局认知,再用文本精读关键部分。